iT邦幫忙

2023 iThome 鐵人賽

DAY 14
0
自我挑戰組

深度學習的學習 & ASR 中文語音辨識系列 第 14

【Day 14】深度學習的學習:Batch Normalization

  • 分享至 

  • xImage
  •  

so called Batch Norm (BN)

在輸入數據時,通常都會先將 feature 做 normalize 後再進行訓練,可以加速模型收斂

Batch Normalization 就是指在每一層輸入都做一次 normalize

好處:

  1. 快速學習(加速收斂)
  2. Regularization

Ref.

https://ithelp.ithome.com.tw/upload/images/20230929/20163287EDSzSIsbpU.png

這是他的演算法

https://ithelp.ithome.com.tw/upload/images/20230929/201632878H95vFgutz.png

小心得

中秋節快樂,我直接亂發一篇,晚點再來補充,烤肉真快樂


上一篇
【Day 13】深度學習的學習:Exponentially Weighted Average
下一篇
【Day 15】深度學習的學習:Multi Classification
系列文
深度學習的學習 & ASR 中文語音辨識30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言